[摘譯] 資本，AGI，與人類的野心

原文：:Capital, AGI, and human ambition 

作者：L Rudolf L

摘譯：

這篇「資本，AGI，與人類的野心」的作者預測，當 AI 逐漸取代人類作為生產的基礎之後，整個社會將越來越不關心「人類」本身，進而強化固有的社會權力結構。

當大部分的生產工作都由 AI 擔任之後，整個體制的當權者將不再需要將其它人類的福祉當作優先考慮的事項，來鞏固自己的權力。這將導致一個階級固化的社會，個人想透過自己的努力來獲得巨大的成功，將變得非常困難。

這樣的社會，在好的情況下，是所有的人都有著豐富無虞的物質生活，但任何突破現有階級的想望幾乎都沒有機會成功。最糟的情況，則可能是人類的滅絕，或是將資源優先提供給 AI 而非人類。

作者建議，現在就該開始思考，應該如何設計新的機制，保存人類的社會階層流動以及積極性。

想法：

這篇大概是近期看到比較接近我心目中的「AI倫理」的討論。過去這幾年， AI 的發展非常迅速，從單一目標的工作到各種複雜的任務，AI 都逐漸能夠勝任，甚至在表現上超過人類。加上機器人的發展，我們似乎離作者描繪的「AI 取代人類作為生產力的基礎」越來越近。

但也有人表示，作者的假設也不見得會成真。例如，當所有人都在物質上不虞匱乏的時候，「個人資產不同」帶來的「不平等」或「階級」可能就不存在了。或者，「少數大企業（資本）控制著所有的 AI 以及生產力」的情況不見得會發生，AGI 的發展過程很可能伴隨著去中心化以及民主化，從而嘉惠到所有人。當然，也有人舉了幾個歷史上新科技出現的例子，來反駁作者過度的擔心。

無論如何，即便我不是性惡論的支持者，但「當你的存在對我毫無意義，我為什麼要關心你的福祉？」這個問題，我是覺得即人類便不見得都會「落井下石」，但「雪中送炭」也不是很常見的情況。所以，我還蠻贊成作者的看法，應該設計一些清推的機制，避免我們走向那個 worst case scenario。

延伸閱讀：

• The Intelligence Curse by Luke Drago
• It's Still Easier To Imagine The End Of The World Than The End Of Capitalism
• From Innovation to Irrelevance: Reflections on the Paper "The Intelligence Curse"